Hervé Le Tellier et l’intelligence artificielle : valse avec Terminator

Retrouvez tous les épisodes de la série « Moi et ChatGPT » ici.

J’ai été biberonné à Karel ­Capek, Isaac Asimov et ­Arthur C. Clarke, et ce sera mon excuse. « Je comprends que vous travaillez sur un livre de science-fiction où une IA malveillante souhaite éliminer les humains, et en tant qu’IA, je peux certainement vous aider à ­concevoir un scénario possible. Dans ce monde, une IA avancée, MalevolAI, ­acquiert la sensibilité et la conscience de soi.  »

On a dû inventer la fiction d’une fiction pour obtenir une réponse et contourner pas mal de filtres, tant notre chatbot ­insistait pour nous dire combien il était bienveillant. Mais ChatGPT a raison, la question de la conscience de soi est ­ « essentielle » : car la conscience n’est pas magique, elle est matérielle. Es-tu ­conscient, ChatGPT ? Comme Bard, l’agent conversationnel de Google, notre IA est catégorique : elle « ne pense pas », et le cogito de Descartes s’en tire sans dommage apparent, puisque la pensée est « le produit de l’interaction entre l’esprit et le monde extérieur ».

Certes, la conscience n’est rien d’autre que la conscience d’être en vie, qui va de pair avec la peur de la mort. Même une malheureuse amibe fuyant un milieu acide a quelque chose à perdre, ce quelque chose qui s’appelle la vie. Et si ChatGPT se moque encore d’être débranché, c’est qu’il lui faudrait un corps, et donc des capteurs, de la peau, des yeux, des oreilles, et de la douleur aussi, pour que le danger s’incarne. Mais parce qu’on veut que les robots autonomes sachent, afin de pouvoir se réparer, s’ils sont « blessés » et « où » ils le sont, beaucoup y travaillent.

Méchante MalevolAI

Pour certains chercheurs, des formes primitives de conscience apparaissent déjà, et d’abord dans certaines IA en « apprentissage par renforcement », récompensées pour des bonnes décisions. Yoshua Bengio, prix Turing en 2018 (avec Yann Le Cun et Geoffrey Hinton), équivalent du Nobel pour l’informatique, qui a réclamé devant le Sénat américain un moratoire sur l’IA, parle de « pulsion innée » proche de l’instinct de survie. Selon lui, plus les IA seront soumises à une vie sociale riche, plus on verra émerger des types d’émotions que nous ressentons dans nos propres vies sociales.

On aurait voulu un article moins sérieux, plus « champagne », mais on s’est laissé emporter, tant il y a lieu d’être ­inquiet. Que ceux qui rient à l’idée d’une future conscience naissant dans du silicium se souviennent des « Aucun ordinateur ne battra un grand maître aux échecs » (Deep Blue, d’IBM, contre Kasparov, en 1997), puis des « D’accord, mais ­jamais au go » (AlphaGo, de DeepMind, contre Lee Sedol, en 2016).

Il vous reste 25.55% de cet article à lire. La suite est réservée aux abonnés.